%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% Short Sectioned Assignment
% LaTeX Template
% Version 1.0 (5/5/12)
%
% This template has been downloaded from:
% http://www.LaTeXTemplates.com
%
% Original author:
% Frits Wenneker (http://www.howtotex.com)
%
% License:
% CC BY-NC-SA 3.0 (http://creativecommons.org/licenses/by-nc-sa/3.0/)
%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

%----------------------------------------------------------------------------------------
%	PACKAGES AND OTHER DOCUMENT CONFIGURATIONS
%----------------------------------------------------------------------------------------

\documentclass[paper=a4, fontsize=11pt]{scrartcl} % A4 paper and 11pt font size

\usepackage[T1]{fontenc} % Use 8-bit encoding that has 256 glyphs
\usepackage{fourier} % Use the Adobe Utopia font for the document - comment this line to return to the LaTeX default
\usepackage[english]{babel} % English language/hyphenation
\usepackage{amsmath,amsfonts,amsthm} % Math packages
\usepackage[UTF8]{ctex}
\usepackage{lipsum} % Used for inserting dummy 'Lorem ipsum' text into the template
\usepackage{color}
\usepackage{sectsty} % Allows customizing section commands
\allsectionsfont{\centering \normalfont\scshape} % Make all sections centered, the default font and small caps

\usepackage{fancyhdr} % Custom headers and footers
\pagestyle{fancyplain} % Makes all pages in the document conform to the custom headers and footers
\fancyhead{} % No page header - if you want one, create it in the same way as the footers below
\fancyfoot[L]{} % Empty left footer
\fancyfoot[C]{} % Empty center footer
\fancyfoot[R]{\thepage} % Page numbering for right footer
\renewcommand{\headrulewidth}{0pt} % Remove header underlines
\renewcommand{\footrulewidth}{0pt} % Remove footer underlines
\setlength{\headheight}{13.6pt} % Customize the height of the header

\numberwithin{equation}{section} % Number equations within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)
\numberwithin{figure}{section} % Number figures within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)
\numberwithin{table}{section} % Number tables within sections (i.e. 1.1, 1.2, 2.1, 2.2 instead of 1, 2, 3, 4)

\setlength\parindent{0pt} % Removes all indentation from paragraphs - comment this line for an assignment with lots of text

%----------------------------------------------------------------------------------------
%	TITLE SECTION
%----------------------------------------------------------------------------------------

\newcommand{\horrule}[1]{\rule{\linewidth}{#1}} % Create horizontal rule command with 1 argument of height

\title{
\normalfont \normalsize
\textsc{中国科学院大学   计算机与控制学院} \\ [25pt] % Your university, school and/or department name(s)
\horrule{0.5pt} \\[0.4cm] % Thin top horizontal rule
\huge 随机过程第三次作业 \\ % The assignment title
\horrule{2pt} \\[0.5cm] % Thick bottom horizontal rule
}

\author{黎吉国} % Your name

\date{\normalsize Sep 25,2016}

\begin{document}

\maketitle % Print the title

%----------------------------------------------------------------------------------------
%	PROBLEM 1
%----------------------------------------------------------------------------------------

注：本次作业主要消化第三次课课堂内容，作业内容多为笔记内容和书上内容的整理。
\section{相关函数的概念和性质}
\textbf{1.} 如何证明相关函数的正定性和宽平稳随机过程的相关函数的平移不变性。\\
(1)正定性（非负定性）\\
这里先给出自相关函数和二元函数非负定的定义。\\
\textbf{自相关函数：}设复随机过程$X(t),t\in \mathbb{R}$为二阶矩过程，则其自相关函数$R_X(t,s):\mathbb{R}\times\mathbb{R}\to\math{C}$为
\[R_X(t,s)=E(X(t)\overline{X(s)})\]
\textbf{二元函数非负定：}如果二元函数$G(t,s):\mathbb{R}\times\mathbb{R}\to\mathbb{C},\forall n,\forall t_1,t_2,\ldots,t_n\in \mathbb{R},\forall z_1,z_2,\ldots z_n\in\mathbb{C}$，满足
\[\sum_{k=1}^{n}\sum_{m=1}^{n}G(t_k,t_m)z_k\overline{z_m}\ge 0\]
则称该二元函数是非负定的。\\
\textbf{证明：}
由以上概念，只需证明对复二阶矩过程$X(t),t\in \mathbb{R}, \forall n,\forall t_1,t_2,\ldots,t_n\in \mathbb{R},\forall z_1,z_2,\ldots z_n\in\mathbb{C}$，有
\begin{align*}
\sum_{k=1}^n \sum_{m=1}^n R_X(t_k,t_m)z_k \overline{z_m} &= Z^TE(X X^H)\overline{Z}&\qquad& \text{ (这里}X^H\text{\ 是共轭转置运算)}\\
&= E(Z^TXX^H\overline{Z})&\qquad& \text{(这里能把}Z,\overline{Z}\text{放进去的原因是}Z,\overline{Z}\text{没有随机性)}\\
&= E(|Z^TX|^2)\ge 0&\qquad& \text{(这一步是一个配方)}
\end{align*}\\
可知其具有非负定性。\\
(2)宽平稳过程的相关函数的平移不变性\\
\textbf{宽平稳过程的定义：}对于随机过程$X(t),t\in T$，都有
\[E(X(t))=E(X(s))\]
\[R_X(t,s)=R_X(t+D,s+D)\quad \forall D\in T\]
则称随机过程$X(t)$具有宽平稳性。\\
由于宽平稳随机过程的自相关函数只依赖于时间差$t-s$，所以也常常将其写作$R_X(\tau)\quad \tau = t-s$。\\
\textbf{证明：}要证明其平移不变性，只需证明
\[\text{if }R_X(T)=R_X(0),\text{ then }R_X(T+\tau)=R_X(\tau)\]
我们证明$R_X(T+\tau)=R_X(\tau)$：\\
\begin{align*}
|R_X(\tau+T)-R_X(\tau)|&=|R_X(\tau+T,0)-R_X(\tau,0)|&\qquad&\text{(将其表示为双变量的函数)}\\
&=|E(X(0)X(\tau+T))-E(X(0)X(\tau))|&\qquad&\text{(相关函数的定义)}\\
&=|E\{X(0)[X(\tau+T)-X(\tau)]\}|\\
&\le \sqrt{E(X(0))^2 E(X(\tau+T)-X(\tau))^2}&\qquad&\text{(Cauchy不等式)}\\
&=0
\end{align*}
{\color{red}入选理由：}非负定性和平移不变性是相关函数很重要的特性。\\

\section{分析随机相位信号的平稳性}
\textbf{2.}随机相位信号$X(t)=A\cos(\omega t+\theta)$在什么条件下具有宽平稳特性。\\
\textbf{解：}要使该信号具有宽平稳特性，则需要信号的均值函数是不依赖于时间$t$常函数，自相关函数只依赖于时间差。
\begin{align*}
m(t)&=E(A\cos(\omega t+\theta))\\
&=E(A)E(\cos(\omega t+\theta))&\qquad& (A,\theta\text{是相互独立的随机变量})\\
&=E(A)[E(\cos\theta)\cos\omega t- E(\sin\theta)\sin\omega t]&\qquad&(\text{三角函数的和差化积},\omega,t\text{ 都没有随机性})
\end{align*}
要使均值函数是不依赖于时间$t$的常函数，有$E(\sin\theta)=E(\cos\theta)=0$.
\begin{align*}
R_X(t,s)&=E(A\cos(\omega t+\theta)\cdot A\cos(\omega s+\theta))  \\
&=E(A^2)E(\cos(\omega t+\theta)\cos(\omega s+\theta))&\qquad&(A,\theta\text{相互独立})\\
&=E(A^2)E(\frac{\cos(\omega(t-s))\cos(\omega(t+s)+2\theta}{2})&\qquad&(\text{积化和差})\\
&=\frac{E(A^2)}{2}(\cos(\omega(t-s))+E(\cos(\omega(t+s)+2\theta)))&\qquad&(\omega,t,s\text{都没有随机性})\\
&=\frac{E(A^2)}{2}\{\cos(\omega(t-s))+\cos(\omega(t+s))E(\cos(2\theta))-\sin(\omega(t+s))E(\sin(2\theta))\}&\qquad&(\omega,t,s\text{都没有随机性})
\end{align*}
要使相关函数只依赖于时间差$t-s$，需要$E(\cos(2\theta))=E(\sin(2\theta))=0$。\\
总结来说，使随机相位信号为宽平稳的条件是$E(\sin\theta)=E(\cos\theta)=E(\cos(2\theta))=E(\sin(2\theta))=0$.\\
{\color{red}入选理由：}该题研究信号处理领域重要的弦波信号的性质，有助于理解实际信号中宽平稳的概念。
\section{布朗运动的平稳性}
\textbf{3.}试分析布朗运动的平稳性。\\
\textbf{解：}\\
布朗运动的定义比较复杂，详见教材71页，这里我们主要使用它的下面这几个性质：\\
1. $B(t)$具有独立增量特性，对$t_0\le t_1 \le t_2 \le t_3$，有$B(t_3)-B(t_2),B(t_1)-B(t_0)$相互独立。且$B(0)=0$。\\
2. $\forall t, B \sim N(0,t)$.\\
3. $B(t)-B(s)\sim N(0,t-s) \qquad t>s$\\
下面计算相关函数：\\
\begin{align*}
R_B(t,s) &= E(B(t)B(s))\\
&=E((B(t)-B(s)+B(s))B(s))&\qquad&(\text{这里假设}t>s)\\
&=E((B(t)-B(s))(B(s)-B(0)))+E(B^2(s))&\qquad&(\text{期望的线性性质})\\
&=E(B(t)-B(s))E(B(s))+E(B^2(s))&\qquad&(B(t)-B(s),B(s)-B(0)\text{相互独立})\\
&=E(B^2(s))&\qquad&B(t)-B(s)\sim N(0,t-s)\\
&=s&\qquad&E(B^2(s))\text{表示}B(s)\text{的方差}
\end{align*}
由于前面假设$t>s$,实际结果应该是$\min(t,s)$.\\
可知，相关函数依赖于时间，所以不具有平稳性。\\
\textbf{下面研究相关函数的导数：}
\begin{align*}
\frac{\partial^2 R_B(t,s)}{\partial t \partial s} &= \frac{\partial^2}{\partial t \partial s}\min (t,s)\\
&=\frac{\partial^2}{\partial t \partial s}(\frac{s+t-|t-s|}{2})\\
&=\frac{\partial}{\partial t}(\frac{sgn(t-s)+1}{2})\\
&=\delta(t-s)
\end{align*}
可以看出，相关函数的导数是只依赖于时间差的。这的求导相当于经过了一个高通滤波器。\\
{\color{red}入选理由：}有助于理解布朗运动的一些特性。
\end{document}
